#diffusion model

5 篇

ReRound: Reconstructive Rounding to Resolve Midpoint Ambiguity in Calibration-Free LLM Quantization

ReRound：重构舍入解决免校准 LLM 量化中的中点歧义

🧭 LLM 低比特量化 · 校准自由 PTQ

Harvard University

用条件扩散模型重建权重作为舍入方向指导，混合 RTN 与重构舍入，提升小模型 3/4-bit 免校准量化精度

📌 工作参考价值（4 点）

对广告/推荐场景中部署的小模型（如轻量排序塔、CTR 特征提取器）可尝试校准自由 PTQ：ReRound 不依赖线上数据分布，奇异值匹配选择矩阵避免维护校准集，适合快速迭代压缩。
容忍度参数只对歧义区间权重做特殊舍入，可作为量化后处理的“局部修正”思路：在工程上对量化误差敏感的层或权重矩阵单独做扩散重建，其余层用 RTN，控制上线成本。
扩散模型生成重建权重这种“以生成做去噪/补全”的思路，可以迁移到 embedding 量化、低秩近似中，针对小模型权重分布做条件生成，提升量化后表示质量。
方案完全离线、推理零额外开销，对延迟敏感的排序/召回服务是重要优势；若现有压缩工具链中精度不够，可替换 rounding 模块而不改变推理图。

Training | 2026-08-10 | HF Daily | score 7/10

CineMobile: On-Device Image-to-Video Diffusion for Cinematic Camera Motion Generation

移动端电影运镜生成扩散模型 CineMobile

🧭 移动端高效视频生成

Shanghai Jiao Tong University · Nankai University · Transsion

通过剪枝-蒸馏-量化三阶段优化，将大型视频扩散模型压缩至移动端，实现40倍加速的电影运镜生成

📌 工作参考价值（3 点）

主要是视觉生成领域的模型压缩贡献，对推荐/广告/Agent 系统的直接业务可借鉴点有限。
蒸馏引导的结构化剪枝策略可迁移至推荐模型压缩：先用蒸馏让剪枝后模型快速恢复能力，再联合微调。
强化学习与扩散蒸馏结合的少步生成方法，可为搜索推荐系统中使用扩散模型做生成式推荐（如 GenRec）时降低推理步数提供思路。

Other | 2026-07-03 | HF Daily | score 6/10

video generation diffusion model model compression mobile deployment distillation quantization

BlockPilot: Instance-Adaptive Policy Learning for Diffusion-based Speculative Decoding

BlockPilot：基于扩散推测解码的实例自适应块大小策略学习

🧭 推测解码 · 实例自适应块大小

AMAP, Alibaba Group

提出从预填充表示学习预测最优块大小的策略，突破固定块限制，提升扩散推测解码效率

📌 工作参考价值（4 点）

在大模型在线推理（如对话式推荐、搜索 Agent）中，可集成该自适应策略，根据 prompt 的预填充特征动态选择最优块大小，无痛提升加速比，且预测开销极小。
方法即插即用，无需修改原扩散推测解码框架，适合在已有推理管道中快速部署，降低工程改动成本。
揭示了最优块大小的局部结构——集中在训练块尺寸附近，可据此设定搜索范围或剪枝预测类别数，简化策略学习。
对于需要低延迟响应的业务场景（如实时广告文案生成、个性化推送），该技术能有效减少端到端延迟，提升用户体验。

LLM | 2026-06-29 | HF Daily | score 6/10

speculative decoding diffusion model block size adaptive policy inference acceleration dLLM

RAID: Semantic Graph Diffusion for True Cold-Start and Cross-Lingual Forecasting

RAID：语义图扩散实现真正冷启动与跨语言预测

🧭 语义图扩散 · 冷启动预测

University College of Engineering, Anna University Tiruchirappalli · Central University of Karnataka · National Institute of Technology Tiruchirappalli · Jawaharlal Nehru University

利用元数据语义检索与图扩散，在无历史数据的真冷启动场景下实现时间序列预测并显著降低延迟

📌 工作参考价值（4 点）

物品冷启动预测：用商品的文本描述（标题、描述等）生成语义嵌入，检索相似商品的历史时间序列，聚合邻居序列得到基础预测，可解决新品销量/需求预测无历史数据的问题。
不确定性量化：门控扩散模块在基础预测上建模残差分布，输出预测区间而非点估计，适合库存管理、促销决策中的风险控制。
低延迟非自回归解码：非自回归生成方式使推理延迟降低一个数量级，对在线推荐、实时定价等时效性要求高的场景尤其重要。
多语言共享语义空间：利用冻结的多语言嵌入模型，单一英文训练模型可直接预测其他语言描述的商品，降低跨国业务的多语言维护成本。

RecSys | 2026-06-15 | cs.AI | score 7/10

cold-start semantic graph diffusion model multilingual retrieval-augmented time-series forecasting

Token Time Continuous Diffusion for Language Modeling

Token时间连续扩散语言建模

🧭 扩散语言模型 · 连续空间与每token时间步

UT Austin

提出连续空间上token级时间可变的扩散语言模型，解决高加速比下离散模型并行采样不准确问题

📌 工作参考价值（4 点）

低延迟文本生成：TTCD 的确定性连续扩散避免了多 token 并行采样的因子分解误差，在高加速比（少步生成）下质量稳定，适合电商搜索推荐中的实时文案生成、对话 Agent 响应等场景，可直接移植其连续演化思想。
可控多字段生成：每 token 可独立设置扩散速度，允许“确定度高的 token 先到位”；在生成式推荐中，可用于先生成核心语义 ID 或关键属性，再填充细节，提升生成质量和可控性。
自蒸馏训练技巧：论文采用自蒸馏提升最终生成质量，此方法可应用于工业界小模型（如移动端或边缘设备上的轻量 LM）的训练中，无需额外数据即可优化。
连续空间避免误差累积：若系统涉及多轮迭代生成（如 Agent 规划链式输出），连续扩散可降低离散采样带来的级联错误，可考虑在内部协议生成或 API 参数生成中借鉴该框架。

LLM | 2026-05-06 | HF Daily | score 6/10

diffusion model language model continuous space per-token time self-distillation conditional generation